在OpenAI執行長奧特曼 (Sam Altman) 被董事會開除之後，代理的執行長希爾 (Emmett Shear) 和董事會對於奧特曼被開除的理由三緘其口，不過卻特別在推特上強調，董事會之所以這麼做，原因無關雙方對AI發展安全性的歧見。
許多長期關注AI發展的觀察家都不相信這項辯解，一些臺灣的讀者可能馬上會聯想到的成語恐怕是「欲蓋彌彰」。何況，就算希爾的話屬實，他之所以需要特別強調安全性問題，意味著他也瞭解外界必然會這樣解讀。
畢竟，主導開除奧特曼的幾位董事會成員，在安全性問題上與奧特曼的立場長期不合，早就不是新聞。從這個觀點來說，董事會指控奧特曼破壞互信、不誠實、有所隱瞞，很有可能必須放在這個長期衝突的背景下理解。
奧特曼與董事會之間的差異，經常被稱為所謂「樂觀技術資本主義」(optimistic techno-capitalism) 和「長期論」(long-termism) 兩股理念之間的鬥爭，而在理念之爭背後，又有龐大的金錢力量為之加柴添火，終於引爆了這場肥皂劇 (Montgomery, 2023；Schreckinger, 2023）。
理念上的差異，意味著看見不同方向
簡白來說，「樂觀技術資本主義」樂觀相信科技解決問題的能力，認為無需在研發時刻意放慢腳步，等待管制或風險評估。相對地，長期論者則主張科技研發不是越快越好，研發過程中必須考慮對後代可能的損害、尤其是毀滅性的損害。
奧特曼一直以來都被視為第一個陣營的代表，即使他在美國、歐盟等國的聽證會上都表示歡迎不同政府擬訂管制方案，但整體而言，他並不認為科技研發者自己應該「慢下來」。
相反地，OpenAI董事會上有兩位成員屬於「長期論」此一陣營，而這兩位成員在奧特曼回歸之後也都被迫離開董事會。Helen Toner和Tasha McCauley一直以來都主張科技發展需要「慢下來」，必須對安全性有更好的掌握之後才能往下走。
事實上，Toner最近和一些同僚發表了一篇文章，就批評生成式AI的龍頭們不該在尚未執行「細節性的安全測試」之前就貿然推出產品。雖然並未指名道姓，但批評的範圍明顯包含OpenAI (Waters and Thornhill, 2023)。
這兩個陣營的爭端不時會浮上檯面，比如Anthropic這家公司的創辦人們之所以離開OpenAI，公開的理由就是認為奧特曼不夠注意安全問題。
同時，樂觀派的擁護者有些用詞相當尖銳，比如Meta（臉書母公司）的首席AI科學家Yann LeCun就形容擔心長期風險的論調都很「荒誕」(preposterous)，而矽谷重要的投資人Marc Andreessen更為尖酸，用來形容長期論者的詞彙包含「邪教」、「瘋癲」、無異於各種警告末日將臨的「千禧年運動」。
經濟利益是引擎，是力量的來源
而這一切還不只是理念之爭──科技業、尤其是AI產業涉及非常龐大的利益，這樣的爭端背後當然有金錢的力量參與，並形塑了爭端的發展。
只要關注此次肥皂劇的讀者都一定會注意到，微軟在第一時間就表態願意雇用奧特曼和其他OpenAI的離職員工，這也給了奧特曼和員工們非常大的談判籌碼，有超過九成的員工宣示會與奧特曼同進退，終於逼迫董事會就範。
但其實，微軟一直以來都是OpenAI重要的投資人、是奧特曼長期的盟友。
在經濟面上，微軟執行長Satya Nadella更曾公開承認兩間公司有「相互依存」的關係──OpenAI為微軟的產品提供技術，進而讓微軟的產品對消費者和投資人更具吸引力，讓華爾街上的投資人更願意將資金押在微軟上；而微軟除了提供資金，也讓OpenAI能穩定使用微軟的雲端運算，而雲端運算是個稀缺又寡占的資源 (Waters, 2023)。
這樣的關係不僅相互依存，而且恰好是兩家公司之間「最好的距離」。「投資而不擁有」的關係，使得微軟不用直接負擔OpenAI的成本與風險；何況，OpenAI的公司文化也與微軟很不相同，整併之後未必能夠相容；更重要的是，一旦整併，微軟馬上就會受到反壟斷相關的調查，法律風險相當之高。
於是，雙方延續這樣互利共生的關係。這樣的關係看似完美，但有一項重要的影響：奧特曼自己本來就很想當先驅者，並沒有想要慢下來，而微軟的投資更讓他、讓公司有繼續往前衝的動機。
畢竟，這是一個競爭激烈的市場，OpenAI並沒有信心可以永遠保持領先地位，而當OpenAI不只是帳面上看來的非營利研究機構，還必須向投資人「負責」時，就更不可以停下腳步，更沒有思考安全性的餘裕。
事實上，這正是董事會成員Toner批評的重點：OpenAI和Google等公司為了競爭，盲目向前衝，已經數次規避「他們自己所設定」的安全檢查和倫理審查程序。
社會科學二十世紀的重要學者韋伯 (Max Weber) 曾經比喻，利益是讓人們能向前衝的引擎，而文化、理念則像是「轉轍器」，決定軌道的走向，引導人們往特定的方向衝去。
在這個案例中，這樣的動態相當明顯：奧特曼的世界觀中，科技本來就是應該勇往直前，他本來就想往更高更遠的地方儘快衝去，而在這個時候，微軟的金錢投注更讓奧特曼能夠向前衝，讓他和對他忠誠的員工可以在對戰中取得上風，贏過在名義上應該掌握實權的董事會。
對政策制定者而言，這是一個警告
但對於在華府和世界各地的政策制訂者而言，這場肥皂劇並非鬧劇，而是驚悚劇。畢竟，這意味著連名義上存在的董事會、公司治理程序與內部規則都未必能降低治理的不穩定性，AI公司的經營、技術的走向幾乎完全掌握在奧特曼、微軟執行長等少數幾個個人手上，是依照他們的理念和利益運轉，這本身就足以讓政策制定者非常不安 (Bordelon, 2023)。
更何況，獲勝的那方還是樂觀論者。事實上，就算是矽谷的長期論者們，想法也與多數管制者有些差異。比起長期論者，許多管制者更擔心中短期內就會出現、甚至已經出現的問題──監控、假訊息、內建歧視、國家安全與市場秩序等等。但樂觀論者的想法，普遍來說當然是距離政策制定者更為遙遠，部分比奧特曼更極端的樂觀論者更是全力抵抗國家的管制。
從這個角度來說，奧特曼和微軟贏了這場戰役，卻未必能贏下整場戰鬥。對歐洲國家而言，這場肥皂劇只會強化他們「必須發展本土AI」的動機，避免全面受制於奧特曼等少數個人 (Chassany, 2023)。
至於華府、布魯塞爾、倫敦等地的政策制訂者，更可能會選擇要加速、加嚴政府對AI的管制，更不敢仰賴產業的自我規制──畢竟，誰知道下一場肥皂劇會在何時何地上映呢？
本文轉載自台大科教中心CASE報科學網站，原文請點我。
.jpg)